Beyond Semantic Similarity: Performance and Costs of Agentic Retrieval for Complex Tasks
超越语义相似度：面向复杂任务的智能体检索性能与成本
🧭 Agent 检索 · ReAct 循环 ★ 深度解读
NVIDIA · University of Edinburgh
用 ReAct 智能体循环结合 LLM 推理与稠密检索，复杂检索 nDCG@10 平均提升 8.7 点，但成本大幅上升
📌 工作参考价值（4 点）
- 复杂 query 场景（多跳、数值推理、跨语言企业文档）可以尝试用 ReAct 检索 Agent 替代一次性 dense retrieval：把原始 query 和初始召回结果一起喂给 LLM，提供 Retrieve/Think/Final_Results 三个工具，让 LLM 动态改写 query、分解子问题并迭代探索，能显著提升 nDCG@10。
- 工程上不要用 MCP 包装高频检索工具：MCP 每次拉起 server、加载 embedding、网络往返开销大；改成线程安全单例 retriever，模型和索引常驻进程内，能消除一类部署错误并大幅提升吞吐。
- 可靠性设计可借鉴 RRF fallback：当 Agent 因 context 超限或安全错误中断时，收集已执行的所有检索结果，用 Reciprocal Rank Fusion 合并排序作为最终结果，避免整条链路失败。
- 成本控制是落地关键：agentic retrieval 单 query 平均 107 秒、764K input tokens，不适合在线高 QPS 场景；电商/搜索推荐中应优先用于低流量高价值的复杂 query，或通过小模型蒸馏、并行多路检索、最大步数限制来压低 token 与延迟。